![arXiv:2112.15422v1 [cs.AI] 2021 年 11 月 25 日](/simg/9/944ac25ddea48b6e4402cdc063b0cba3869af3b5.png)
机构名称：
¥ 1.0
最近，Silver 等人。[65] 认为奖励最大化的概念足以支撑所有智能。具体来说，他们提出了奖励就足够了的假设，即“智能及其相关能力可以理解为通过代理在其环境中行动来最大化奖励”，并主张奖励最大化是创造通用人工智能 (AGI) 的途径。虽然其他人批评了这一假设和随后的说法 [44,54,60,64]，但在这里我们提出这样的论点：Silver 等人。在关注标量奖励最大化方面犯了错误。考虑多个相互冲突的目标的能力是自然智能和人工智能的一个关键方面，并且不一定会通过最大化标量奖励而出现或充分解决。此外，即使最大化标量奖励足以支持 AGI 的出现，我们认为这种方法是不可取的，因为它大大增加了部署该 AGI 导致不良后果的可能性。因此，我们主张更合适的智能模型应该通过使用矢量值奖励明确考虑多个目标。
arXiv:2112.15422v1 [cs.AI] 2021 年 11 月 25 日
主要关键词
![arXiv:2112.15422v1 [cs.AI] 2021 年 11 月 25 日PDF文件第1页](/bimg/1/1ecf1833384e8413797aeab1ec2d653eb8fd7e73.webp)
![arXiv:2112.15422v1 [cs.AI] 2021 年 11 月 25 日PDF文件第2页](/bimg/4/4a818b004cbe3a86357d6cfafadfed3d5bbe7ba3.webp)
![arXiv:2112.15422v1 [cs.AI] 2021 年 11 月 25 日PDF文件第3页](/bimg/b/b2de1e4b1a98f2207526731891d7ef142631436f.webp)
![arXiv:2112.15422v1 [cs.AI] 2021 年 11 月 25 日PDF文件第4页](/bimg/8/8f72e7b2698168e48cd47baac0fb19fba117213a.webp)
![arXiv:2112.15422v1 [cs.AI] 2021 年 11 月 25 日PDF文件第5页](/bimg/5/5393ed767438bde888a9040522c4c401c1cf410c.webp)
相关文件推荐
![arXiv:2001.02021v1 [cs.AI] 2020 年 1 月 7 日](/simg/6/6656a65d1324b757699cd670b349c20ef6da7f31.png)
![arXiv:2102.06518v1 [cs.AI] 2021 年 2 月 12 日](/simg/0/070d7c7773e4992bf716ef8f8bc5d0404ff23414.png)
![arXiv:1611.05449v2 [quant-ph] 2017 年 11 月 6 日](/simg/a/a6c3e03439add2bf3b7276875293e2eb7302ac98.webp)
![arXiv:2106.03797v1 [cs.CV] 2021 年 5 月 20 日](/simg/d/d3991bdbf22b7ca1f479c1474c721bd822b7bde3.webp)
![arXiv:1611.09099v1 [cs.CV] 2016 年 11 月 28 日](/simg/1/1993bc7fb810e9d0ee2b7ac34d8eb07fb435dedf.webp)
![arXiv:2011.07876v1 [cs.LG] 2020 年 11 月 16 日](/simg/6/68758036e90c90f3903356cd2f9a18d6db5b3ba4.webp)
![arXiv:2209.00552v2 [eess.SY] 2022 年 11 月 9 日](/simg/a/ad501ca2400f80a04ec171a96cc0f82c991ef29c.webp)
![arXiv:2102.07039v1 [cs.RO] 2021 年 2 月 14 日 - 加州理工学院作者](/simg/2/25e43204245c78df627668556baf7f3f3d635b52.webp)
